LLM Agents Can See Code Repositories
LLM智能体也能“看见”代码仓库:视觉结构提升效率的秘密
🧭 多模态Agent · 代码仓库可视化
Shanghai Jiao Tong University · Xi’an Jiaotong University · Zhejiang University
首次系统评估多模态仓库可视化对LLM Agent任务解决的影响,发现视觉辅助可降26% token开销且不损精度。
📌 工作参考价值(4 点)
- 混合模态Agent架构:在电商/推荐Agent中,可将系统拓扑图、服务依赖图、商品知识图谱等可视化信息作为补充输入,与文本上下文结合,使Agent更高效地理解复杂环境结构,减少纯文本描述带来的冗长token消耗。
- 故障定位阶段的视觉加速:在推荐系统排障、多Agent协作调试等场景,提供可视化调用链路或状态快照,能帮助Agent更快定位问题来源,类似论文中视觉在fault localization阶段的突出效果。
- 自主探索深度控制:让Agent根据视觉结构的复杂程度自行决定探索深度,避免不必要的文本查询,可以迁移到Agent规划(如动态选择RAG查询层级、多级推荐链的探索)中,实现按需获取信息。
- 工程实现借鉴:论文的混合模态设计验证了“视觉结构图 + 文本浏览”的比纯视觉或纯文本更具性价比,可直接套用在需要Agent理解大型项目结构(如推荐pipeline、微服务架构)时,用图表快速建立全局认知,再用文本精读关键部分。